傾き,\(\Large \displaystyle \hat{a_1} \),切片,\(\Large \displaystyle \hat{a_0} \),の期待値
各パラメータの分散推定に行く前に,
期待値
を求めてみましょう.
・期待値の性質
まずは,期待値の性質から,
\(\Large \displaystyle E[aX] = c E[X] \)
\(\Large \displaystyle E[X+c] = E[X] + c\)
\(\Large \displaystyle E[X+Y] = E[X] + E[Y]\)
\(\Large \displaystyle E[XY] = E[X] E[Y] \) (X,Yが無相関な場合)
\(\Large \displaystyle \hat{a_1} \),の期待値
まず,\(\Large \displaystyle \hat{a_1} \),の期待値から.
\(\Large \begin{eqnarray} \displaystyle \hat{a_1} &=& a_1
+ \frac{\sum_{i=1}^{n} \left(X_i - \bar{X} \right) u_i }{\sum_{i=1}^{n} \left( X_i - \bar{X} \right)^2}
\\
&=& a_1
+ \sum_{i=1}^{n} \omega_i u_i
\\
\end{eqnarray} \)
となるので,
\(\Large \begin{eqnarray} \displaystyle E ( \hat{a_1} ) &=& E \left( a_1
+ \sum_{i=1}^{n} \omega_i u_i \right) \\
&=& a_1
+ E \left( \sum_{i=1}^{n} \omega_i u_i \right) \\
&=& a_1
+ \sum_{i=1}^{n} \omega_i E (u_i) \\
&=& a_1
\\
\end{eqnarray} \)
となります.
\(\Large \displaystyle \hat{a_0} \),の期待値
\(\Large \displaystyle \hat{a_0} \),と \(\Large \displaystyle \hat{a_1} \),の関係は,
\(\Large \displaystyle \bar{Y} = a_0 + a_1 \bar{X} + \bar{u} \), ここから
\(\Large \displaystyle \bar{Y} = \hat{a_0} - \hat{a_1} \bar{X} \), ここから
から,
\(\Large \displaystyle \hat{a_0} = a_0 - \left( \hat{a_1} - a_1 \right) \bar{X} + \bar{u} \)
となります.期待値は,
\(\Large \begin{eqnarray}\displaystyle
E[\hat{a_0}] &=& E \left[a_0 - \left( \hat{a_1} - a_1 \right) \bar{X} + \bar{u} \right] \\
&=& E[ a_0 ] -
E \left[ \left( \hat{a_1} - a_1 \right) \bar{X} \right]+ E \left[ \bar{u} \right] \\
&=& E[ a_0 ] -
\bar{X} E \left[ \hat{a_1} - a_1 \right]+ E \left[ \bar{u} \right] \\
&=& E[ a_0 ] -
\bar{X} E \left[ \hat{a_1} \right] + \bar{X} E \left[ a_1 \right]+ E \left[ \bar{u} \right] \\
&=& a_0 -
\bar{X} a_1 + \bar{X} a_1 + 0 \\
&=& a_0 \\
\end{eqnarray} \)
となります,ある意味,当たり前の結果となります.
では,いよいよ傾き,\(\Large \displaystyle \hat{a_1} \),の分散を求めていきましょう.